AI Papers Daily

#Test Generation

2 篇

TestPrism: Rethinking Test Evaluation Beyond a Single Reference

TestPrism：超越单参考的代码测试评估与 TestHelix 改进

🧭 LLM 代码测试生成评估

Nanjing University · Hong Kong Polytechnic University · Tencent

提出 TestPrism 基准与联合成功函数，揭示单参考评估高估测试质量，并用 TestHelix 将联合成功率提升 8.67-9.00 个百分点

📌 工作参考价值（4 点）

• 评估生成式输出（如 query 推荐、文案改写、搜索建议）时，不要只用单一参考做金标准：构建多个有效/无效候选，要求模型同时接受所有有效变体、拒绝所有无效变体，避免指标虚高。
• Agent 工作流中引入「同行交叉验证」：多个模型/策略互相打分、过滤，能提升生成结果的稳健性，可直接用于推荐文案、搜索词等多候选生成场景。
• 借鉴 TestHelix 的递归自我改进：用失败样本构造「错误→修复」对，迭代微调或 self-training，适合用于低资源场景下生成式推荐的冷启动或长尾覆盖。
• 异质合成正负样本的思路可迁移到推荐/搜索的训练数据构建：混合不同来源/策略生成多样化有效和无效样本，增强模型对边界情况的区分能力。

Eval | 2026-10-07 | HF Daily | score 6/10

Test EvaluationLLM Coding AgentsBenchmarkRecursive Self-ImprovementPeer Cross ValidationTest Generation

Two-Stage Reinforcement Learning for Sound and Adversarial Test Generation in Code LLMs

两阶段强化学习生成可靠对抗测试用例提升代码 LLM

🧭 代码 LLM 测试生成 · 对抗 RL

Nanyang Technological University, Singapore · Skywork AI

提出两阶段 RL 测试生成框架 TCS，先学可靠测试再对抗生成反例，提升代码生成 pass@1 与答案选择

📌 工作参考价值（4 点）

• 若业务任务具备可自动验证的 reward（如商品属性合法性、SQL 可执行、Promo 规则检查、点击/转化模拟器），可借鉴 TCS 两阶段生成器：Stage 1 贴近参考解/规则生成合法样本，Stage 2 针对线上模型常见失败模式生成反例，用于训练更鲁棒的排序/生成模型或筛选候选。
• 将测试生成器作为可学习的 critic：在电商 Agent 或推荐 query/文案生成中，训练一个判别器为候选输出打分，替代或辅助人工评审；用当前策略的失败样本构造滚动缓冲，持续挖掘 hard negatives，提升候选筛选的区分能力。
• 推理时选择：生成多个候选推荐理由/搜索 query/广告标题，用学到的检查器自动过滤不合格输出，降低低质量内容上线风险；类似无参考评估，适合在线管道。
• 注意领域差异：代码执行反馈明确且低成本，电商反馈（点击/转化）噪声大、延迟高，需用离线模拟器或业务规则先构造可信 reward，不宜直接照搬对抗 RL 的完全在线迭代。

Training | 2026-09-03 | cs.LG | score 6/10

RLCode GenerationTest GenerationAdversarial RLLLM